Trước đây là trấn, rồi phủ Quốc Oai, gồm các huyện Đan Phượng, Từ Liêm, Thạch Thất, Yên Sơn, Phúc Lộc (sau là Phúc Thọ).

Năm 1831, tách huyện Từ Liêm về Tỉnh Hà Nội dưới thời nhà Nguyễn.

Năm 1888, sau khi tách huyện Đan Phượng về phủ Hoài Đức thuộc tỉnh Hà Đông mới lập, phủ Quốc Oai chuyển thành huyện Quốc Oai thuộc tỉnh Sơn Tây.

Từ năm 1965 thuộc tỉnh Hà Tây[2].

Ngày 27 tháng 12 năm 1975 thuộc tỉnh Hà Sơn Bình[3], gồm 23 xã: Cấn Hữu, Cộng Hòa, Đại Thành, Đồng Quang, Đông Yên, Hiệp Thuận, Hòa Thạch, Hoàng Ngô, Liên Hiệp, Liệp Tuyết, Nghĩa Hương, Ngọc Liệp, Ngọc Mỹ, Phú Cát, Phú Mãn, Phượng Cách, Sài Sơn, Tam Hiệp, Tân Hòa, Tân Phú, Thạch Thán, Tuyết Nghĩa, Yên Sơn.

Ngày 29 tháng 12 năm 1978, 7 xã của huyện Quốc Oai là Tam Hiệp, Liên Hiệp, Hiệp Thuận, Cộng Hòa, Tân Hòa, Tân Phú và Đại Thành nhập vào thủ đô Hà Nội[4], trong đó 4 xã (Cộng Hòa, Tân Hòa, Tân Phú, Đại Thành) nhập vào huyện Hoài Đức, 3 xã còn lại (Tam Hiệp, Liên Hiệp, Hiệp Thuận) nhập vào huyện Phúc Thọ, đều thuộc Hà Nội (Quyết định của Hội đồng Chính phủ ngày 17 tháng 2 năm 1979[5]). Phần còn lại của huyện Quốc Oai vẫn ở lại tỉnh Hà Sơn Bình với tên gọi huyện Quốc Oai, gồm 16 xã: Cấn Hữu, Đồng Quang, Đông Yên, Hòa Thạch, Hoàng Ngô, Liệp Tuyết, Nghĩa Hương, Ngọc Liệp, Ngọc Mỹ, Phú Cát, Phú Mãn, Phượng Cách, Sài Sơn, Thạch Thán, Tuyết Nghĩa, Yên Sơn.

Ngày 23 tháng 12 năm 1988, thành lập thị trấn Quốc Oai trên cơ sở giải thể xã Hoàng Ngô.

Từ ngày 12 tháng 8 năm 1991 huyện Quốc Oai lại trở về với tỉnh Hà Tây[6]. Các xã trước kia thuộc huyện Hoài Đức, Hà Nội cũng chuyển về huyện Quốc Oai[7]. Riêng 3 xã Tam Hiệp, Liên Hiệp, Hiệp Thuận vẫn thuộc huyện Phúc Thọ. Như vậy, huyện Quốc Oai có 20 đơn vị hành chính gồm thị trấn Quốc Oai và 19 xã: Cấn Hữu, Cộng Hòa, Đại Thành, Đồng Quang, Đông Yên, Hòa Thạch, Liệp Tuyết, Nghĩa Hương, Ngọc Liệp, Ngọc Mỹ, Phú Cát, Phú Mãn, Phượng Cách, Sài Sơn, Tân Hòa, Tân Phú, Thạch Thán, Tuyết Nghĩa, Yên Sơn.

Ngày 29 tháng 5 năm 2008, cùng với toàn bộ tỉnh Hà Tây, huyện Quốc Oai được nhập về thủ đô Hà Nội[8], và tiếp nhận thêm xã Đông Xuân từ huyện Lương Sơn tỉnh Hòa Bình về theo quyết định của HĐND Thành phố Hà Nội mới (mở rộng).

Ngày 8 tháng 5 năm 2009, toàn bộ xã Đông Xuân được chuyển vào huyện Quốc Oai[9]. Như vậy, huyện Quốc Oai có 1 thị trấn và 20 xã.